2024 COMPUTEX論劍：AWS 用3招助產業「懂用」生成式AI
- DIGITIMES / 台北
- 2024-06-20 10:25:27
圖說 : 全球雲端服務大廠Amazon Web Services (AWS)，由AWS Enterprise Strategist - Xia Zhang擔任專題演講人，分享AWS如何運用生成式AI為數位創新帶來突破。Amazon Web Services (AWS)。
AI旋風席捲全球各界，這股浪潮也吹進2024台北國際電腦展（COMPUTEX 2024），大會論壇更以「生成式AI新賽局」作為主題，向論壇聽眾論述最新技術與應用趨勢，全球雲端服務大廠Amazon Web Services (AWS) 也在5日上午壓軸登場，並由AWS Enterprise Strategist - Xia Zhang擔任專題演講人，分享AWS如何運用生成式AI為數位創新帶來突破。
Xia Zhang在演講開頭就直接指出，生成式AI創造商業價值是進行式，特別在「創造工作體驗、提升製造產能、洞見決策關鍵、實現內容創意」上影響顯著，也受各界關注，為此企業也趨之若鶩地希望導入人工智慧，但實務上卻面對著「1. 基礎模型版本、2. 客製化不易、3. 資料安全與隱私、4. 選擇應用場景、5. 連結企業資源複雜、6. 管理架構層欠缺能力」等7個挑戰，讓企業不得其門而入，只能站在人工智慧浪潮的入口觀望。
AI起手式：做選擇，採取敏捷佈建的雲端服務
對此Xia Zhang則直言，企業想要快速進入人工智慧領域，採取技術與資源兼具的雲端服務已是當前主流選擇，除了避免地端尚未建置完成，人工智慧又有了重大突破、難以追趕，企業更是看上雲端服務提供商在「多產業、大場景」下的實務戰績，如AWS的生成式AI早已應用於「健康醫療、生產製造、金融服務、零售量販、媒體娛樂、交通車輛、教育學習」七個領域。
舉例來說，如被高度期待AI化的生產製造，AWS就可協助業者達成「設備維護預測、製造良率優化、產能需求估算」，進一步實現智慧製造的可能；同樣倍受期待的交通車輛，也能達成「設計更安全省油的車輛、提升車輛性能品質、塑造個性化駕乘體驗」；而協助媒體娛樂「激發創作內容、增強互動體驗、提供個人化推薦」也只是AWS生成式AI的基本表現。
AI第二式：用數據，打造專屬客製的基礎模型
「想要打造與眾不同的AI，善用自有數據是差異化關鍵」Xia Zhang坦言，許多企業想導入AI、但卻缺乏實際可用的數據。事實上，多數企業先是欠缺數據的「採集思維」，也不懂得數據的處理：收納、分類、分析、訓練，如資料湖就是「收納」不分型式的資料、資料庫就是「分類」圖型、時間序列、文件等資料型態，進入「分析」則有資料倉儲、資料整合、商業智慧、營運分析等運用，最後則把資料用來「訓練」機器學習與生成式AI。
Xia Zhang進一步說明在實務上，就是把未經標籤化的資料，提供給AI進行「預訓練」，透過基礎模型來重新「編寫」資料，產出後的資料再打上標籤或不記標籤，分別依照語意理解，匹配生成內容給各種「任務」，包含，文本撰寫、內容摘要、資訊提取、諮詢問答、聊天機器人…等。
Xia Zhang也指出，當企業導入時，想要進一步提升自家生成式AI所產出的精準度，首先以透過擷取技術（RAG）增強生成，或是運用微調（FINE-TUNING）來逐步修正，同時也建議長期且持續地為AI進行預訓練（CONTINUED PRETRAINING），如此下來不僅內容準確性增加，也等於讓下咒語／問答的理解力更加敏銳。
AI第三式：拼全面，用功能組合建構生成式AI
LLM大型語言模型開啟了人們對於AI的盼望，彷彿電影中無所不知的AI即將問世眼前。事實上，在此之前AI一直被定位為「垂直應用」，意即在某領域訓練的AI經驗，難以跨其他領域應用，而生成式AI堆疊（Generative AI Stack）則有望與LLM一起打破這個框架。所謂的「堆疊」顧名思義就是將技術服務整合一起，讓數據互通，產生綜效價值，或可需要時呼叫應用、或可資源串連相輔相成。
Xia Zhang對此也提出AI堆疊的三個步驟，基礎實施是「基礎模行與其他基礎模型整合」，進階實施「大行語言模型與基礎模型的聯合建構」、深度實施則在「設計專屬架構，來協助基礎模型的預訓練與推演」。「這當中已經進入了AI架構層、應用層與硬體的整合範疇，而AWS都已有成熟的服務來為企業敏捷佈署、穩固建置，包含：GPUs、AWS Trainium、AWS Inferentia、 Amazon SageMaker、Amazon EC2 UltraClusters、EFA (Elastic Fabric Adapter)、Amazon EC2 Capacity Blocks for ML、AWS Nitro System、AWS Neuron…等。
企業若想從頭開始、無中生有的建置AI，則可採取Amazon SageMaker實施機器學習模型的建置、訓練、部署；Amazon Bedrock則可以規模化建置生成式AI的基礎模型；Amazon Q則進一步把前述的佈置轉換成生成式AI助手，改變工作模式；也能透過Amazon CodeWhisper來賦能AI開發人員，提供更好的程式編寫建議、訓練基礎模型。
全球10,000家知名企業，採用AWS服務進軍AI領域
Xia Zhang特別說明，全球已有超過1萬家知名企業在進入AI領域時，選擇採用AWS雲端服務Amazon Bedrock，如知名運動品牌Adidas就建置AI助手改變工作模式，為工程師賦能，從知識庫中找到資訊與答案，有效解決需要高技術含量的問題。
同時，美國開利空調大廠Carrier也使用Amazon Bedrock幫助客戶實現永續發展目標，利用Amazon Textract從客戶的水電費帳單中提取信息，做好節電、碳排、用電等能源管理，讓永續數據管理更智慧化！
Xia Zhang也向台灣企業建議，數位轉型的路途與AI密不可，導入AI不僅要選擇適合的服務方式，更要從「賦能工作團隊、為企業帶來機會」來考量，也用實際行動來取代對AI的觀望，透過實作為企業帶來經驗與案例，並且對AI帶來的應用表現持續監測、留下紀錄、敢於實踐、推陳出新。
